L’utilisation des systèmes d’intelligence artificielle (SIA) dans les interactions entre les citoyennes et citoyens et les organismes publics
Les SIA sont de plus en plus appelés à agir comme des intermédiaires entre la population et les organismes publics. D’une part, les citoyennes et citoyens sont appelés à utiliser ces outils pour interagir avec les organismes publics. D’autre part, les organismes publics pourront effectuer différentes tâches assistées par les SIA, qu’il s’agisse de traiter les demandes citoyennes ou d’analyser les commentaires reçus. Cette veille a comme premier objectif de cartographier les principaux enjeux actuels et potentiels liés à ces nouveaux usages.
L’utilisation d’algorithmes dans la gestion des programmes publics
En deuxième lieu, la veille se concentre sur l’utilisation d’algorithmes dans l’administration des programmes publics afin d’assister la prise de décision ou de formuler des prédictions. Dans un contexte de baisse des effectifs de la fonction publique et de valorisation à grande échelle des outils numériques et d’intelligence artificielle, il est vraisemblable que ce type de solutions soit de plus en plus envisagé. Ces technologies sont susceptibles de soulever d’importants enjeux éthiques, notamment en matière d’accès inclusif et équitable aux services publics, de reproduction de biais discriminatoires, de transparence, d’explicabilité, de maintien des compétences ainsi que d’interprétation des décisions automatisées par le personnel responsable.
